Google(AS) telah mengumumkan solusi baru bernama "Model Armor" untuk mengatasi ancaman AI. Solusi ini bertujuan untuk mengurangi risiko injeksi cepat dan jailbreaking, serta meningkatkan keamanan AI. Solusi ini dirancang agar mudah diakses oleh pengembang melalui integrasi API dan kolaborasi dengan layanan Google .

Organisasi Apigee kini dapat meningkatkan keamanan interaksi AI melalui integrasinya dengan Model Armor, yang menambah fungsionalitas gateway API yang ada dengan mengaktifkan penyaringan respons dan cepat untuk memastikan aplikasi AI aman dan patuh.

Model Armor menawarkan berbagai fitur, termasuk deteksi injeksi cepat dan jailbreak, perlindungan data sensitif, deteksi URL berbahaya, penyaringan konten berbahaya, penyaringan dokumen, dll. Fitur-fitur ini tersedia tidak hanya di Google Cloud, tetapi juga di penyedia cloud dan platform lainnya.

Untuk menggunakannya, cukup aktifkan Model Armor API di konsol Google Cloud dan konfigurasikan sesuai kebutuhan untuk terhubung ke Apigee. Aplikasi AI kemudian dilindungi secara real-time melalui Model Armor. Hasil deteksi dapat dilihat di Pusat Komando Keamanan, dan aktivitas administratif serta operasi sanitasi dicatat di Cloud Logging.